Les architectes n'osent pas faire de trop hautes élévations, ni de trop grandes ouvertures. A cette époque, l'église symbolise Dieu qui s'est fait homme, elle est donc à échelle humaine.
L'église romane est orientée à l'est (soleil levant), le choeur est ainsi éclairé en premier. Cela représente le symbole de la résurrection du Christ. Le côté nord représente celui de l'Evangile et le côté sud celui de l'Epître.

Le plan : en forme de croix latine, symbolisant le Christ supplicié, avec une longue nef terminée par une tête arrondie ou abside, et traversée par une autre nef ou transept qui dessine les deux bras de la croix et s'achève souvent par deux chapelles.
L'abside et le choeur sont parfois entourés d'une galerie de circulation ou déambulatoire, s'ouvrant aussi sur de petites chapelles.
Dans certaines églises romanes est ménagé sur la façade, en avant de la nef, un porche ou avant-nef qui atteint parfois les dimensions d'un petit bâtiment avec une cour carrée limitée, du côté de la nef, par un narthex, sorte de portique sculpté, et, vers l'extérieur, par le porche proprement dit (Vézelay).
L'église est parfois dotée d'un parvis, espace à ciel ouvert entouré d'une clôture basse.

Les murs : très épais, faits de pierres moyennes, sans assises de briques et moins soignés que les murs gallo-romains.

Les piliers : également très épais, peu élevés, appuyés aux murs ou à demi engagés dedans.

Les chapiteaux : parfois nus, mais généralement ornés de feuillages ou de personnages (chapiteaux historiés).

Les corniches : destinées à mettre le murs à l'abri du ruissellement des eaux de pluie, la corniche est une tablette saillante recouverte par la gouttière du toit, qu'elle reporte le plus possible en avant du mur.

Les arcs-boutants : comme le poids de la voûte est très lourd, les murs sont renforçés par des contreforts de maçonnerie, le plus souvent ils sont composés d'un arc appuyé contre l'extérieur du mur et s'appuyant lui-même à un autre mur ou pilier fortifié (Soissons).

Les voûtes : elles restent de plein cintre, selon la technique romaine. Sur les deux murs parallèles sont placées des pierres taillées qui s'appuient les unes aux autres pour former un arc arrondi. Ces arcs, en se suivant, constituent la voûte en berceau, souvent renforçée par un arc saillant appelé arc-doubleau.

Les portails : arrondis, formés par des arcs concentriques ou voussures, soutenus chacun par des colonnes appuyées au mur (Aulnay), ils sont parfois coupés par une poutre de pierre horizontale, le linteau, qui s'appuie sur une pièce verticale, le trumeau, séparant la porte en deux.

Les fenêtres : toujours étroites, surmontées d'un arc arrondi, parfois d'arc géminé, souvent encadrées de colonettes, et ébrasées, c'est-à-dire s'élargissant vers l'intérieur, pour laisser entrer la lumière.

Les clochers : le clocher est souvent la partie la plus haute de l'église où se trouvent les cloches. Il est placé parfois en avant de l'édifice (son rez de chaussée formant un porche), parfois au-dessus de la croisée du transept ou sur le choeur. Certains clochers sont ronds, d'autres octogonaux ou carrés (Elne, Pyrénées-Orientales), parfois surmontés d'une terrasse. Dès le XIème, ils sont coiffés d'une flèche carrée (Moriéval, Oise) ou octogonale (Chartres).

Les cloîtres : dans les monastères, on trouve une construction particulière, le cloître, sorte de préau entourant un jardin sur quatre côtés, couvert d'une voûte légère soutenue par des colonnes de chapiteaux richement ornés (Moissac).